江南大学本科生为AI虚假图像检测提供新思路

中国教育报-中国教育新闻网讯（记者 王琼 通讯员 丁嘉铖 于乐）当AI生成虚假新闻、伪造明星海报、造假证件图片越来越逼真，肉眼几乎难以分辨，该靠什么来判断真假？近日，江南大学人工智能与计算机学院2022级人工智能专业本科生王心畅团队给出了自己的答案。

“我们不再问‘这张图哪里不对’，而是问‘扰动它一下，它会怎么反应’。”王心畅这样概括团队的核心思路。传统方法检测AI生成图像，大多依赖寻找像素瑕疵、频域异常等“外观破绽”，但随着生成技术不断升级，这些痕迹越来越隐蔽，检测效果大打折扣。王心畅所在团队跳出这一思路，转而关注图像的“行为反应”。

王心畅介绍，团队发现了一个有趣现象：真实图像在被施加微小扰动后，特征依然高度稳定，而AI生成图像哪怕只受到轻微扰动，特征就会明显漂移。“就像泰山崩于前而色不变，和稍微一碰就站不稳的区别。”王心畅说。这种差异被称为“鲁棒性非对称”。

基于这一关键发现，团队构建了鲁棒性非对称检测框架，让机器通过图像的“行为表现”而非“外貌特征”来区分真假。该框架的核心逻辑清晰而巧妙，首先通过差分鲁棒性探测，对图像施加人眼几乎无法察觉的结构化微小扰动，主动放大真实与生成图像之间的稳定性差异。然后，再利用多分支特征融合，从语义特征、特征漂移程度、像素级细微伪影三个维度同时捕捉线索，最后通过对比损失训练，进一步拉大二者在扰动下的表现差距。

实验结果显示，该检测框架在14种主流AI生成模型、超过10种现有检测方法的对比中，检测准确率最高提升5.61%，整体性能平均提升7.81%。即便图像被压缩或模糊处理，依然表现稳健。

“我们希望这项研究能真正服务于社会，帮助人们在AI时代重新建立对图像的信任。”王心畅说。目前，该论文与代码已全部开源，供全球科研人员使用。